MLE-World: Predicting Machine Learning Experiment Outcomes with a Learned World Model
MLE-World：用学习世界模型预测机器学习实验输出
🧭 MLE Agent 世界模型与测试时扩展 ★ 深度解读
University of Washington · University of Illinois at Urbana-Champaign · University of Oxford · Columbia University · New York University
用 4B 世界模型预测 ML 程序终端输出并以置信度门控执行，使 MLE Agent 在少执行下获得更高分数
📌 工作参考价值（4 点）
- 在昂贵的真实执行/线上实验前，用轻量世界模型（finetuned 小 LLM）预测候选程序、策略或 query 的终端输出（日志/指标/错误类型），一轮推理代替一次完整运行，可把候选筛选成本降 1-3 个数量级。
- 置信度门控是核心复用点：按预测结果类型设置不同阈值（成功/失败/超时），只对低置信度候选做真实执行；比随机跳过更省资源，能省 30-40% 执行时间。
- 结构化输出比单纯预测分数或日志更有效：同时预测 exception class、terminal output、validation metric、submission flag，可提升终端输出一致性和指标召回，并支持后续 Debug/Improve。
- UCB 式 exploration bonus 用模型不确定性（1-pmax）修正贪心 Best-of-N，避免 discard 被低估的候选；可迁移到商品召回/创意筛选等有限验证预算场景。